Sau khi kiểu động cơ lắp đặt trên các mấu cứng phía sau thân được Sud Aviation Caravelle Pháp giới thiệu, các nhà sản xuất máy bay trên khắp thế giới vội vã tìm cách ứng dụng kiểu thiết kế mới. Các ưu điểm của nó gồm dòng khí trên cánh không bị nhiễu loạn bởi các vỏ động cơ hay mấu cứng và giảm tiếng ồn trong cabin. Cùng lúc ấy, việc đặt các động cơ nặng ở phía sau cũng tạo ra các khó khăn cho việc xác định trung tâm trọng lực liên quan tới trung tâm lực nâng, nằm ở hai cánh. Để tạo chỗ cho động cơ, cánh ngang đuôi máy bay phải bố trí lại ở bộ phận thăng bằng đuôi, có nghĩa bộ phận này phải khoẻ hơn và vì thế nặng hơn, càng khiến kiểu bố trí này thêm nặng đuôi.

Trong một chuyến thăm Pháp năm 1960, lãnh tụ Xô viết Nikita Khrushchev quá ấn tượng trước sự tĩnh lặng trong cabin chiếc Caravelle, tới mức ngày 1 tháng 8 năm 1960 văn phòng thiết kế Tupolev nhận được một chỉ thị chính thức để chế tạo chiếc Tu-124A với kiểu bố trí động cơ tương tự. Năm 1961, hãng hàng không quốc gia Liên Xô, Aeroflot, nâng thêm các yêu cầu kỹ thuật này với trọng tải và sức chở hành khách lớn hơn.

Nguyên mẫu Tu-124A đầu tiên, CCCP-45075, cất cánh lần đầu ngày 29 tháng 7 năm 1963. Sau đó, ngày 22 tháng 10 năm 1963, BAC One-Eleven của Anh, có kiểu thiết kế tương tự, tai nạn khiến toàn bộ tổ lái thiệt mạng. Chiếc máy bay đã bị tròng trành ngay sau khí cất cánh và rơi vào tình trạng pitch-up: Bộ phận thăng bằng đuôi đặt cao bị vướng vào luồng khí nhiễu loạn do cánh sinh ra (xem tròng trành sâu), khiến máy bay không thể hồi phục khỏi tình trạng tròng trành. Tupolev lưu ý tới điều này và bộ phận thăng bằng đuôi trên chiếc Tu-124A được mở rộng 30% để có được khả năng điều khiển lớn hơn. Bởi các yêu cầu của Aeroflot với mệnh lệnh là một chiếc máy bay lớn hơn kế hoạch ban đầu, phòng thiết kế Soloviev đã phát triển các động cơ phản lực cánh quạt đẩy D-30 low-bypass mạnh. Ngày 20 tháng 10 năm 1963, chiếc máy bay mới chính thức được gọi là Tu-134. Những điểm kỳ lạ trong thiết kế của Tu-134 gồm cánh nghiêng hẳn về phía sau với góc 35 độ, so với 25-28 độ ở những chiếc máy bay tương tự của phương Tây. Các động cơ trên những chiếc Tu-134 đầu tiên thiếu các bộ đổi chiều luồng khí phụt, khiến nó là một trong số ít máy bay chở khách phải sử dụng phanh dù khi hạ cánh. Đa số các thiết bị điện tử trên máy bay sử dụng điện một chiều. Dòng máy bay chở khách đầu tiên của Liên Xô có thể xuất xứ trực tiếp từ chiếc máy bay ném bom chiến lược Tupolev Tu-16, và Tu-134 có sáu miếng kính trên mũi để hoa tiêu dễ quan sát và bộ bánh đáp sử dụng lốp áp suất thấp thích hợp hoạt động trên những sân bay không trải nhựa.

Năm 1968, Tupolev bắt đầu làm việc với một biến thể Tu-134 cải tiến. Thân được kéo dài thêm 2.1 m (6 ft 10 in) để tăng khả năng chở khách và một thiết bị năng lượng phụ phía đuôi. Các động cơ D-30 cải tiến đã có bộ phận đổi chiều hướng phụt, thay thế cho chiếc dù cồng kềnh. Chiếc Tu-134A đầu tiên, được biến đổi từ một chiếc Tu-134 đang sản xuất, cất cánh ngày 22 tháng 4 năm 1969. Chuyến bay dân sự đầu tiên diễn ra ngày 9 tháng 10 năm 1970.